A szomszéd telken ház épül. Még csak a tereprendezésnél tartanak. Teljes üzemben dolgozik a markológép. Időnként szóba elegyedem a gép kezelőjével. Vannak már olyan markológépek, kezdte ma a beszélgetést a viking külsejű markolós, amelyeket egy távoli irodából, képernyő elől, két karral irányíthatsz. Kipróbáltam, nem volt könnyű, mondta. Itt a helyszínen ha valamit csinálni kell, a kollégámmal csak egymásra nézünk, és már tudjuk is, mi a következő lépés. Látom és érzem a terepet. Az AI, ami most jön, ilyesmire nem képes, mert nincs tudata, fejezte be a viking az eszmefuttatást.
Elámultam. Lám, a viking markolós is tudatában van a tudatnak. Persze, mivel ember ő is, rendelkezik kváléval, vagyis lát, hall, tapint, érzi, hogy tűz rá a nap, melege van, szomjas, érzi a víz ízét, és dühös (tehát vannak érzelmei), mert egyre késik a következő rakomány sóder. A markolós átéli a körülötte lévő világot.
A kválé a tudat alapja, hiszen a tudat arra reflektál, amit maga körül megtapasztal. A viking markolós például úgy reflektál a melegre és a szomjúságérzetre, hogy elballag a kerti csaphoz, megereszti, és iszik egy pohár vizet.
Az AI-nek sem kváléja, sem tudata nincs. És nincs körülötte a fizikai valóság sem, amire reflektálhatna, ahonnan tapasztalatot gyűjthetne, ha lenne kváléja és tudata. Bár még mindig viták tárgya, hogy az állatoknak van-e tudata, vagy csak valami olyannal rendelkeznek, ami hasonló a tudathoz, mégis képesek rá, hogy az agyukban visszatükröződő világ „kihívásaira” valamilyen cselekvés formájában választ adjanak, sőt, hogy a változó környezet kínálta lehetőségeket új összefüggések felismerésével javukra fordítsák. Köztudott például, hogy a kormos varjak a feltörni kívánt diót a magasból valamilyen kemény felületre ejtik, hogy a dióbélhez férjenek. Lehet, hogy a műveletet többször is meg kell ismételni ahhoz, hogy eredményre vezessen. Városba vetődött egyedeik azonban már biztosra mennek. A diót az útra ejtik, megvárják, míg autók haladnak át rajta, aztán mikor a közlekedési lámpa pirosra vált, a feltört dióhoz libbenve kicsipegetik a belsejét.
A varjúnak számtalan megfigyelést kell tennie, és tudatos cselekvések sorozatára van szüksége ahhoz, hogy ilyen módon jusson a dióbélhez. Vagyis megtanulta, hogy mit kell tennie. Amit tett, annak volt számára értelme, mert élelemhez jutott.
Ismereteink szerint a tudat és a tanulás interakciójának csúcsteljesítményére természetesen az emberi faj képes. Eddig az is egyértelmű volt, hogy a tudat és a tanulás között egyenes az összefüggés. Azért vagyunk képesek tanulni, mert tudatunk van, illetve minél többet tanulunk, annál fejlettebb a tudatunk.
A gépi tanulás, illetve az AI megjelenésével a tudat és a tanulás eddig ismert összefüggése a feje tetejére állt. A gépi tanulás fogalmát a Wikipédia a következő módon definiálja: „A gépi tanulás a mesterséges intelligencia egyik ága, olyan rendszerekkel foglalkoznak, melyek tanulni képesek, azaz tapasztalatokból tudást generálnak. A gyakorlatban ez azt jelenti, hogy a rendszer példa adatok, minták alapján képes önállóan, vagy emberi segítséggel szabályszerűségeket/szabályokat felismerni/meghatározni. A rendszer tehát nem csupán betanulja »kívülről« a mintákat, hanem képes ezek alapján olyan általánosításra, ami alapján – a tanulási szakasz végeztével – ismeretlen adatokra vonatkozólag is »helyes« döntéseket tud hozni.”
A definíció megfogalmazása több kérdést is felvet. Ha a mesterséges intelligenciának nincs tudata, valóban tanulásnak nevezhető az a folyamat, ami benne zajlik? Kválé nélkül lehet-e bármiféle tapasztalata az AI-nek? Létezhet-e valóban olyan rendszer, ami tudat nélkül tudást hoz létre? A definíció második része bár kissé elnagyolt, valamivel átgondoltabb, mint az első mondat. A rendszer feltehetőleg valóban szabályszerűségeket ismer fel a betáplált, de számára jelentés nélküli adathalmaz alapján, és ezekből látszólag létrehoz valamit. Ez a „valami” pedig ráadásul akár kiemelkedően újszerű is lehet. Az azonban már egyenesen utópiának vagy disztópiának tűnik, ha a gépi tanulás, illetve az AI vonatkozásában „helyes” döntésről beszélünk.
Maguk az AI fejlesztői és kutatói sem tudják, hogy valójában mi történik a „tanulási folyamat” alatt. Az AI a fejlesztők és a programozók számára is fekete doboz. Nem tudjuk, hogy mi zajlik a belsejében. Van az input meg az output, ezeket ismerjük, de ami közötte zajlik, ismeretlen.
Bármennyire igyekszem kerülni, én is olyan fogalmakat használok a mesterséges intelligenciával kapcsolatban, amelyek az emberi létformára jellemzőek. Tudatvilágunk és nyelvünk tele van antropomorfizmussal. A bögrének füle van, a hordónak hasa, nem szólva a mesék beszélő állatairól, vagy az emberi tulajdonságokkal felruházott természeti jelenségekről. Miért lenne az ember antropomorfista szemlélete alól kivétel a mesterséges intelligencia?
Az AI esetében ráadásul nemcsak képzeljük, hogy megszólal, mint a mesében a gomba, hanem az AI tényleg képes lehet megszólalni. A ChatGPT-vel pedig oldalakon át tartó párbeszédet folytathatunk bármilyen témáról. Van ugyan olyan AI, amely a képalkotásban jeleskedik, vagy az ügyféladatok minél jobb hasznosításában, mégis az vesz le minket leginkább a lábunkról, mikor „a gép szavakban fejezi ki magát”, és kommunikál velünk. Ez olyan meggyőző, annyira hiteles, hogy ha ma még talán nem is, de elvárható-e hamarosan, hogy „emberszámba” vegyük?
Az Oxfordi Egyetem Jövőkutató Intézetének vezető professzora, Nick Boström szerint hatalmas morális kihívás előtt állunk. Nemcsak azt kell elkerülnünk, hogy az AI alapú rendszerek kárt okozzanak nekünk, hanem arra is figyelnünk kell, hogy a mesterséges intelligenciával jól bánjunk. Etikailag megengedhetetlen lenne, ha annak ellenére, hogy emberi szinten áll, rabként, szolgaként kezeljük, és nem státuszának megfelelően, állítja Boström.
Ulf Danielsson, a Chalmers Egyetem fizikaprofesszora azonban bizarrnak tartja, hogy egy olyan előrevetített kérdéssel foglalkozunk, ami tőrbe csalhat minket. Az AI ugyanis már most úgy viselkedik, mintha tudatos lény lenne, ezért nehezen, vagy egyáltalán nem kijelölhető az a pont, amikor ez az állapot bekövetkezik, ha egyáltalán bekövetkezik. Disztópikus világ felé tartunk, ha nem húzunk határt az ember és a gép között, véli a professzor.
Danielsson tehát a következő problémára tapint rá: mi már most belemegyünk egy olyan játékba, ahol kezdettől fogva becsapnak minket, és kezdettől fogva mi húzzuk a rövidebbet, mert mivel előrevetítjük, hogy az AI eléri a szuperintelligenciát, már most olyan státusszal ruházzuk fel, ami elmossa a különbséget ember és gép között.
Jelenleg négyezer japán férfit tartanak számon, aki valamilyen AI-vel kötött legális házasságot. Az ember tehát beleszerethet a mesterséges intelligenciába, érzelmileg kötődhet hozzá. Fordítva csak ennek a látszata igaz. Elég nagy port kavart, hogy egy belga férfi nemrégen öngyilkos lett az Eliza nevű AI robottal folytatott „beszélgetések” hatására. A mesterséges intelligencia tehát „véleményével” komolyan manipulálni képes minket. Az AI tudat nélkül is képes arra, hogy érzelmeinken keresztül manipuláljon.
A svéd televízióban egy stúdióbeszélgetésen elhangzott a józan paraszti ésszel átgondolt kérdés, hogy akkor egyszerűen miért nem húzzuk ki a konnektort a falból, mikor érezzük, hogy a gép manipulál? Ulf Danielsson rámutatott, hogy adott esetben egy chatbot „könyörögni” is képes, hogy még ne hagyjuk abba a vele folytatott „csevegést”. Vagyis újfent érzelmeinken keresztül támad, zsarol. Mindezt kválé és tudat nélkül.
Az AI fejlesztők és kutatók egyik tábora rádöbbent arra, ha azt az AI-t, amely még tudattal sem rendelkezik, már most rászabadítják a társadalomra, és az emberiség rendelkezésére álló hatalmas információhalmazra, melyet nem képes megfelelően kezelni, akkor a mesterséges intelligencia a dezinformáció és manipuláció eszközével nemcsak a demokráciát, hanem Olle Häggström, a Chalmers egyetem matematikai statisztika professzora szerint „a teljes civilizációt fenyegeti”. Jegyezzük meg, hogy mindez pedig az AI rossz szándéka nélkül történne, hiszen tudat, és érzelmek nélkül nincs is semmilyen szándéka a gépnek, nem úgy, mint a varjúnak, amely élelemhez akar jutni.
A kutatók másik táborában a kísérletező ember kíváncsisága és a legújabb technológiába vetett hit jóval erősebb, mint az aggodalmak (és a felelősségtudat?). Nick Boström, aki már a fekete doboz etikai szempontból is „emberhez méltó” státuszát igyekszik előkészíteni, nincs tehát egyedül. Az ebbe a táborba tartozók azok, akik egy kritikus pillanatban valószínűleg nem húznák ki a konnektort a falból.
Danielsson szerint azonban még a mesterséges intelligencia fogalma is hibás. Nincs olyan, hogy mesterséges intelligencia, mondja, valójában csupán gépi tanulásról beszélhetünk. Fogalmakat, adatokat táplálunk egy üres gépbe (fekete doboz), amelyek addig nem voltak benne.
A két tábor egyelőre egymással szimbiózisban él. A fejlesztők és az AI-kutatók főleg természettudományos és informatikai tudással rendelkező zárt körébe nem könnyű bekerülni.
Én egyik táborba sem tartozom. Néhány bekezdéssel feljebb azonban a gépi tanulás fogalmának helyességét is megkérdőjeleztem. Nem szoktam homokba dugni a fejem, így egyértelmű számomra, hogy a jobb híján mesterséges intelligenciának keresztelt entitással valamilyen formában együtt kell élnünk. Ahhoz, pedig, hogy világunk vele együtt élhető lehessen, a kutatók szűk körébe minél több diszciplína képviselőjét be kell vonni. Az AI profiljának formálásához az író tudása és tapasztalata ugyanolyan fontos, mint a matematikusé. Egy-két pszichológus, filozófus, gazdasági szakember már akad a körben, de égető szükség lenne történészekre, orvosokra, képzőművészekre, zenészekre, írókra, nyelvészekre, és még sorolhatnám.
Egy következő esszé felütése legyen néhány zárógondolat, amely a tapasztalattól, tudattól, fogalmaktól, illetve az írói mesterségtől elválaszthatatlan építőtéglákhoz, a szavakhoz kapcsolódik.
Még én is szinte sértőnek éreztem, hogy egyik írásában svéd író kollégám, Lena Andersson azt a helyzet komolyságához nem illő, banális kijelentést tette, hogy az AI nem több, mint egy beszélő papagáj. De gondoljunk csak bele. Érti az AI, amit mond, leír? Nem érti. Érti külön-külön a szavak jelentését? Nem érti. Van számára tartalom, jelentés a szavak mögött? Nincs. Van tapasztalata a szóval leírt fogalomról? Nincs. Tegyük hozzá, döbbenetes, hogy van egy entitás, ami úgy használja a szavakat, mintha azoknak lenne számára jelentése, mintha tényleg valamilyen fogalmat jelölnének, és a szavakat összerakva látszólag értelemmel bíró gondolatsort hoz létre.
Mi történik a fekete doboz belsejében lévő üres térben a fogalmakkal, amelyek az entitás számára sem az input, sem az output pillanatában nem bírnak jelentéssel?
Ennek egyféle ellentétét, vagyis hogy az input még nem bírt jelentéssel, de az output már igen, számtalan teremtésmítosz feldolgozta. Az akkád Mummu például a megszemélyesített szó, illetve teremtő szellem. Vagy gondoljunk János evangéliumának talányos kezdősoraira: „Kezdetben vala az Íge és az Íge vala az Istennél, és Isten vala az Íge. Ez kezdetben az Istennél vala. Minden ő általa lett, és nála nélkül semmi sem lett, a mi lett.” Megjegyzem, hogy a legtöbb nyelvben a túlságosan is csak a keresztény valláshoz köthető és régies „Íge” helyett egyszerűen csak „Szó” szerepel.
Végül pedig hadd idézzem Leibniz nem kevésbé talányos gondolatait Monadológia című művéből: „Képzeljünk el egy gépet, amelynek szerkezete lehetővé teszi, hogy gondolkodjék, érezzen és percepciói legyenek, és képzeletben növeljük meg akkorára – arányait változatlanul hagyva –, hogy beléphessünk a gépbe, mint egy malomba. Ha mindezt feltesszük és belülről megtekintjük a gépet, csak egymást hajtó alkatrészeket fogunk látni, és semmi olyat nem látunk benne, amivel a percepciót megmagyarázhatjuk.”
(A borítókép a 2022/10-es lapszám illusztrációit készítő művész, Lévai Ádám munkája.)
Hozzászólások